43万张H100缺口、单机功率50kW+、抢手液冷服务器、行业大模型……疯狂AI背后的算力变革
8月8日，英伟达创始人兼CEO黄仁勋宣布推出新一代GH2000 Grace Hopper超级芯片。这是一款完全专为大规模AI和高性能计算(HPC)应用打造的突破性加速CPU，将为运行TB级数据的应用提供高达10倍的性能。相比最热门的H100芯片，该芯片内存增加1.7倍，传输频宽增加1.5倍，将于2024年第二季投产，同时推出基于GH200的新款服务器设计。
虽然“比H100更快”，但对于当前“芯片荒”来说，似乎远水不解近渴。
毕竟AIGC时下最火的话题不是ChatGPT使用效果，哪家厂商推出对标产品也非新闻，紧缺的GPU成为最新困扰。
微软公司最近公布的年度报告显示了人工智能芯片可能长期短缺的最新迹象。该报告首次将GPU的可获得性认定为投资者可能面临的风险因素。
作为可帮助运行人工智能训练和部署人工智能算法的关键硬件，目前全球95%以上的大模型都使用英伟达的GPU芯片。考虑到训练和推理性能以及推理方面性价比，H100是当下最受欢迎的GPU。
而在GPU Utils日前发布的英伟达H100显卡供需现状分析文章中，保守估计H100的供给缺口达到43万张。芯片行业从业人员表示，“这些GPU的生产已达到产能极限，但需求的激增远远超出渠道的供货来源。
H100如此受追捧，以至于解锁了芯片本身之外的用法——抵押物。云服务提供商CoreWeave上周宣布，在一轮由Magnetar Capital和黑石集团（Blackstone）牵的债务融资中，以英伟达H100芯片为抵押筹集了23亿美元资金，这些资金将用于扩张人工智能的能力以及数据中心的建设。
此外，AIGC巨量的算力、电力、用水，也已经引发行业以及监管机构注意，引来美国达尔斯市政府、英国泰晤士水务公司等对数据中心用水限制，AIGC也使得高功率服务器对传统散热方式带来挑战。
当我们聊AIGC的时候，我们应该聊什么？
AIGC产品、智能算力需求、智算中心构建、服务器散热、芯片、能源消耗、用水……缺一不可。
应该聊大模型产品，以及背后的技术创新和应用效果。
当前，国内推出的众多AIGC产品分为两类：一类是对标ChatGPT的通用大模型产品，如商汤日日新SenseNova、百度文心一言、华为云盘古大模型、阿里巴巴通义千问、科大讯飞星火认知大模型；一类是强调服务产业，深入零售、物流、金融等各垂直业务场景的行业大模型，如京东言犀大模型、第四范式“式说”大模型、云知声应用于医疗的山海大模型、应用于智己汽车的上汽集团D.L.P.人工智能模型。
应该聊AIGC热潮引发的算力新需求，以及未来智算新业态。
大模型的发展正推动AI算力市场进入新的发展阶段。浪潮信息联合清华大学全球产业研究院等发布的《2022-2023全球计算力指数评估报告》预测，全球AI计算市场规模将从2022年的195.0亿美元增长到2026年的346.6亿美元，其中，生成式AI计算市场规模将从2022年的8.2亿美元增长到2026年的109.9亿美元。
巨大的算力缺口激发了智算中心的建设热潮。据不完全统计，目前国内有超过30个城市正在建设或提出建设智算中心。已经有IDC企业推出相应新业务，在数据中心部署高配置的AI服务器，提供高性能智算服务。三大电信运营商也展开了行动，中国电信公告显示，公司上半年在内蒙古、贵州、宁夏等地建设公共智算中心，在31省部署推理池，满足各类AI应用推理的需求，上半年智算新增1.8EFLOPS，达到4.7EFLOPS，增幅62%。同时扩大通用算力，通算新增0.6EFLOPS，达到3.7EFLOPS，增幅19%。
应该聊AIGC热潮引发的算力新需求，以及未来智算新业态。
聊芯片、服务器需求和发展。据8月10日英媒报道，百度、字节跳动、腾讯和阿里巴巴向英伟达下单订购50亿美元的芯片，用于人工智能系统需求。而随着大模型趋势演进，未来AI服务器的主要需求将从训练侧向推理侧倾斜。根据IDC的预测，到2026年，AIGC的算力62.2%将作用于模型推理。
随着AI的迅猛发展，单机功率将高达50kW以上，传统风冷散热效率面临瓶颈难以满足，液冷成为必然，液冷服务器、冷却介质、TANK、CDU、液冷整体解决方案逐渐丰富，如何选择？
8月31日，第十八届中国IDC产业（长三角）年度大典将在上海举办。
大典以“AI造物 算引变革”为主题，将围绕AIGC带来的算力变革展开讨论，以上要聊的全都有！
识别图片二维码，马上报名！
IDC行业市场研究
部分一线城市市场增速下滑超9% 数据中心供需、价格将呈何种走向？